Το AI της Anthropic εκθέτει τις ευρωπαϊκές αδυναμίες
Η μονάδα της Ευρωπαϊκής Ένωσης που είναι επιφορτισμένη με τον έλεγχο των πιο προηγμένων μοντέλων τεχνητής νοημοσύνης φαίνεται να υστερεί σε κρίσιμους πόρους, την ώρα που η νέα τεχνολογία hacking της Anthropic αναδεικνύει σοβαρά κενά στην ετοιμότητά της.
Σύμφωνα με ειδικούς στην ασφάλεια της τεχνητής νοημοσύνης αλλά και πηγές που βρίσκονται σε τακτική επικοινωνία με το AI Office της ΕΕ, η υπηρεσία χρειάζεται άμεσα ενίσχυση σε προσωπικό, ενώ η θέση της στη διοικητική ιεραρχία της Ευρωπαϊκής Επιτροπής θεωρείται χαμηλή για να μπορέσει να ανταποκριθεί αποτελεσματικά σε μια ενδεχόμενη κρίση κυβερνοασφάλειας.
Σε επιστολή προς την Ευρωπαϊκή Επιτροπή, την οποία συνυπογράφουν οκτώ οργανώσεις για την ασφάλεια της AI, τονίζεται ότι απαιτείται ένας επαρκώς στελεχωμένος ρυθμιστής προκειμένου να αντιμετωπιστούν οι απειλές από τα νέα εργαλεία hacking που βασίζονται στην τεχνητή νοημοσύνη.
Περιορισμένη πρόσβαση στο μοντέλο Mythos
Οι ανησυχίες εντείνονται από το γεγονός ότι οι ευρωπαϊκές αρχές δεν έχουν πλήρη πρόσβαση στο προηγμένο μοντέλο Mythos της Anthropic. Η εταιρεία, επικαλούμενη λόγους κυβερνοασφάλειας, έχει περιορίσει τη διάθεσή του σε έναν μικρό αριθμό τεχνολογικών εταιρειών και οργανισμών.
Όπως δήλωσε ο εκπρόσωπος της Επιτροπής Thomas Regnier, η Ευρωπαϊκή Επιτροπή δεν συγκαταλέγεται μεταξύ των περίπου 40 οργανισμών που έχουν αποκτήσει πρόσβαση στο συγκεκριμένο μοντέλο.
Ειδικοί εκφράζουν φόβους ότι το Mythos ενδέχεται να ξεπερνά τον άνθρωπο στον εντοπισμό και την εκμετάλλευση ευπαθειών λογισμικού, γεγονός που θα μπορούσε να ανοίξει τον δρόμο για επιθέσεις σε κρίσιμες υποδομές πληροφορικής.
Προβάδισμα για ΗΠΑ και Ηνωμένο Βασίλειο
Η Anthropic ανέφερε ότι συνεργάστηκε με την κυβέρνηση των ΗΠΑ για την αποτροπή σοβαρής κυβερνοκρίσης, ενώ το AI Security Institute του Ηνωμένου Βασιλείου απέκτησε επίσης πρόσβαση στο μοντέλο και δημοσίευσε μέσα σε μία εβδομάδα λεπτομερή τεχνική ανάλυση, η οποία έτυχε θετικής υποδοχής.
Ο Jimmy Farrell, επικεφαλής πολιτικής AI στην δεξαμενή σκέψης Pour Demain, σημείωσε ότι η βρετανική εμπειρία αποδεικνύει πως «είναι εφικτό» και ότι η Ευρώπη μπορεί να κινηθεί αντίστοιχα, με την υπόθεση του Mythos να καθιστά την ανάγκη αυτή ακόμη πιο επιτακτική.
Υποστελέχωση και ανταγωνισμός για ταλέντο
Το AI Office της ΕΕ, που λειτουργεί λιγότερο από δύο χρόνια, αριθμεί περίπου 140 εργαζομένους, εκ των οποίων μόλις 36 ανήκουν στη μονάδα ασφάλειας που χειρίζεται τα πιο σύνθετα μοντέλα.
Η δυνατότητα της ΕΕ να ανταποκριθεί στις νέες απειλές εξαρτάται σε μεγάλο βαθμό από την προσέλκυση εξειδικευμένου προσωπικού και τη συνεργασία με κορυφαίες εταιρείες AI — τομέας στον οποίο, σύμφωνα με αναλυτές, το Ηνωμένο Βασίλειο προηγείται. Η Ευρωπαϊκή Επιτροπή καλείται να ανταγωνιστεί ιδιαίτερα υψηλούς μισθούς του ιδιωτικού τομέα και ισχυρά τεχνολογικά hubs, όπως το Λονδίνο.
Ο Stanislav Fort, επικεφαλής επιστημονικός σύμβουλος της ευρωπαϊκής εταιρείας ασφάλειας AI Aisle, υπογράμμισε ότι το βρετανικό AI Security Institute διαθέτει την ικανότητα να κινείται «στα όρια της επιστημονικής πρωτοπορίας», κάτι που —όπως σημείωσε— δεν ισχύει σήμερα για το AI Office της ΕΕ.
Έκκληση για ενίσχυση
Παρά τις διαβεβαιώσεις της Ευρωπαϊκής Επιτροπής ότι το AI Office έχει αναπτύξει σύγχρονες δυνατότητες αξιολόγησης μοντέλων, οι επικριτές επιμένουν ότι απαιτείται σημαντική ενίσχυση, ιδίως με εξειδικευμένους προγραμματιστές.
Ο ευρωβουλευτής Brando Benifei κάλεσε την Επιτροπή να ενισχύσει το AI Office με περισσότερο προσωπικό, βαθύτερη τεχνική εξειδίκευση και επαρκή χρηματοδότηση, ανάλογη της ταχύτητας ανάπτυξης της τεχνητής νοημοσύνης.
Οι οργανώσεις που συνυπογράφουν την επιστολή προτείνουν η μονάδα ασφάλειας να φτάσει τα 160 στελέχη έως το 2030, αντίστοιχα με ομάδες που ασχολούνται με την εποπτεία ψηφιακών πλατφορμών.
Δομικά προβλήματα και γραφειοκρατία
Πέρα από την υποστελέχωση, πρόβλημα εντοπίζεται και στη θέση του AI Office εντός της διοικητικής δομής της Επιτροπής. Όπως αναφέρουν πηγές, απαιτούνται πολλαπλά επίπεδα έγκρισης πριν ληφθούν κρίσιμες αποφάσεις, γεγονός που περιορίζει την ταχύτητα αντίδρασης.
Αντίθετα, στο Ηνωμένο Βασίλειο, ο πρωθυπουργός Keir Starmer διαθέτει άμεσο σύμβουλο για θέματα τεχνητής νοημοσύνης, την Jade Leung, πρώην λομπίστα της OpenAI.
Επιπλέον, το βρετανικό AI Security Institute φαίνεται να έχει ένα πλεονέκτημα: δεν διαθέτει ρυθμιστικές αρμοδιότητες επιβολής προστίμων, κάτι που διευκολύνει τη συνεργασία με εταιρείες.
Αντίθετα, το AI Office της ΕΕ είναι υπεύθυνο, μαζί με τις εθνικές αρχές, για την εφαρμογή του AI Act, το οποίο προβλέπει πρόστιμα έως και 35 εκατ. ευρώ.
Ενίσχυση σε εξέλιξη
Η Ευρωπαϊκή Επιτροπή έχει ήδη ξεκινήσει προσπάθειες ενίσχυσης του AI Office. Στο πλαίσιο απλοποίησης της νομοθεσίας για την τεχνητή νοημοσύνη, προβλέπεται η πρόσληψη 38 επιπλέον εργαζομένων, αν και οι σχετικές διαδικασίες βρίσκονται ακόμη υπό διαπραγμάτευση.
Σε βραχυπρόθεσμο ορίζοντα, το AI Office σχεδιάζει να προσλάβει περίπου έξι νέα στελέχη έως τα τέλη Ιουνίου, με την πλειονότητά τους να εντάσσεται σε μονάδες ασφάλειας, ρύθμισης και συμμόρφωσης.
www.bankingnews.gr
Σύμφωνα με ειδικούς στην ασφάλεια της τεχνητής νοημοσύνης αλλά και πηγές που βρίσκονται σε τακτική επικοινωνία με το AI Office της ΕΕ, η υπηρεσία χρειάζεται άμεσα ενίσχυση σε προσωπικό, ενώ η θέση της στη διοικητική ιεραρχία της Ευρωπαϊκής Επιτροπής θεωρείται χαμηλή για να μπορέσει να ανταποκριθεί αποτελεσματικά σε μια ενδεχόμενη κρίση κυβερνοασφάλειας.
Σε επιστολή προς την Ευρωπαϊκή Επιτροπή, την οποία συνυπογράφουν οκτώ οργανώσεις για την ασφάλεια της AI, τονίζεται ότι απαιτείται ένας επαρκώς στελεχωμένος ρυθμιστής προκειμένου να αντιμετωπιστούν οι απειλές από τα νέα εργαλεία hacking που βασίζονται στην τεχνητή νοημοσύνη.
Περιορισμένη πρόσβαση στο μοντέλο Mythos
Οι ανησυχίες εντείνονται από το γεγονός ότι οι ευρωπαϊκές αρχές δεν έχουν πλήρη πρόσβαση στο προηγμένο μοντέλο Mythos της Anthropic. Η εταιρεία, επικαλούμενη λόγους κυβερνοασφάλειας, έχει περιορίσει τη διάθεσή του σε έναν μικρό αριθμό τεχνολογικών εταιρειών και οργανισμών.
Όπως δήλωσε ο εκπρόσωπος της Επιτροπής Thomas Regnier, η Ευρωπαϊκή Επιτροπή δεν συγκαταλέγεται μεταξύ των περίπου 40 οργανισμών που έχουν αποκτήσει πρόσβαση στο συγκεκριμένο μοντέλο.
Ειδικοί εκφράζουν φόβους ότι το Mythos ενδέχεται να ξεπερνά τον άνθρωπο στον εντοπισμό και την εκμετάλλευση ευπαθειών λογισμικού, γεγονός που θα μπορούσε να ανοίξει τον δρόμο για επιθέσεις σε κρίσιμες υποδομές πληροφορικής.
Προβάδισμα για ΗΠΑ και Ηνωμένο Βασίλειο
Η Anthropic ανέφερε ότι συνεργάστηκε με την κυβέρνηση των ΗΠΑ για την αποτροπή σοβαρής κυβερνοκρίσης, ενώ το AI Security Institute του Ηνωμένου Βασιλείου απέκτησε επίσης πρόσβαση στο μοντέλο και δημοσίευσε μέσα σε μία εβδομάδα λεπτομερή τεχνική ανάλυση, η οποία έτυχε θετικής υποδοχής.
Ο Jimmy Farrell, επικεφαλής πολιτικής AI στην δεξαμενή σκέψης Pour Demain, σημείωσε ότι η βρετανική εμπειρία αποδεικνύει πως «είναι εφικτό» και ότι η Ευρώπη μπορεί να κινηθεί αντίστοιχα, με την υπόθεση του Mythos να καθιστά την ανάγκη αυτή ακόμη πιο επιτακτική.
Υποστελέχωση και ανταγωνισμός για ταλέντο
Το AI Office της ΕΕ, που λειτουργεί λιγότερο από δύο χρόνια, αριθμεί περίπου 140 εργαζομένους, εκ των οποίων μόλις 36 ανήκουν στη μονάδα ασφάλειας που χειρίζεται τα πιο σύνθετα μοντέλα.
Η δυνατότητα της ΕΕ να ανταποκριθεί στις νέες απειλές εξαρτάται σε μεγάλο βαθμό από την προσέλκυση εξειδικευμένου προσωπικού και τη συνεργασία με κορυφαίες εταιρείες AI — τομέας στον οποίο, σύμφωνα με αναλυτές, το Ηνωμένο Βασίλειο προηγείται. Η Ευρωπαϊκή Επιτροπή καλείται να ανταγωνιστεί ιδιαίτερα υψηλούς μισθούς του ιδιωτικού τομέα και ισχυρά τεχνολογικά hubs, όπως το Λονδίνο.
Ο Stanislav Fort, επικεφαλής επιστημονικός σύμβουλος της ευρωπαϊκής εταιρείας ασφάλειας AI Aisle, υπογράμμισε ότι το βρετανικό AI Security Institute διαθέτει την ικανότητα να κινείται «στα όρια της επιστημονικής πρωτοπορίας», κάτι που —όπως σημείωσε— δεν ισχύει σήμερα για το AI Office της ΕΕ.
Έκκληση για ενίσχυση
Παρά τις διαβεβαιώσεις της Ευρωπαϊκής Επιτροπής ότι το AI Office έχει αναπτύξει σύγχρονες δυνατότητες αξιολόγησης μοντέλων, οι επικριτές επιμένουν ότι απαιτείται σημαντική ενίσχυση, ιδίως με εξειδικευμένους προγραμματιστές.
Ο ευρωβουλευτής Brando Benifei κάλεσε την Επιτροπή να ενισχύσει το AI Office με περισσότερο προσωπικό, βαθύτερη τεχνική εξειδίκευση και επαρκή χρηματοδότηση, ανάλογη της ταχύτητας ανάπτυξης της τεχνητής νοημοσύνης.
Οι οργανώσεις που συνυπογράφουν την επιστολή προτείνουν η μονάδα ασφάλειας να φτάσει τα 160 στελέχη έως το 2030, αντίστοιχα με ομάδες που ασχολούνται με την εποπτεία ψηφιακών πλατφορμών.
Δομικά προβλήματα και γραφειοκρατία
Πέρα από την υποστελέχωση, πρόβλημα εντοπίζεται και στη θέση του AI Office εντός της διοικητικής δομής της Επιτροπής. Όπως αναφέρουν πηγές, απαιτούνται πολλαπλά επίπεδα έγκρισης πριν ληφθούν κρίσιμες αποφάσεις, γεγονός που περιορίζει την ταχύτητα αντίδρασης.
Αντίθετα, στο Ηνωμένο Βασίλειο, ο πρωθυπουργός Keir Starmer διαθέτει άμεσο σύμβουλο για θέματα τεχνητής νοημοσύνης, την Jade Leung, πρώην λομπίστα της OpenAI.
Επιπλέον, το βρετανικό AI Security Institute φαίνεται να έχει ένα πλεονέκτημα: δεν διαθέτει ρυθμιστικές αρμοδιότητες επιβολής προστίμων, κάτι που διευκολύνει τη συνεργασία με εταιρείες.
Αντίθετα, το AI Office της ΕΕ είναι υπεύθυνο, μαζί με τις εθνικές αρχές, για την εφαρμογή του AI Act, το οποίο προβλέπει πρόστιμα έως και 35 εκατ. ευρώ.
Ενίσχυση σε εξέλιξη
Η Ευρωπαϊκή Επιτροπή έχει ήδη ξεκινήσει προσπάθειες ενίσχυσης του AI Office. Στο πλαίσιο απλοποίησης της νομοθεσίας για την τεχνητή νοημοσύνη, προβλέπεται η πρόσληψη 38 επιπλέον εργαζομένων, αν και οι σχετικές διαδικασίες βρίσκονται ακόμη υπό διαπραγμάτευση.
Σε βραχυπρόθεσμο ορίζοντα, το AI Office σχεδιάζει να προσλάβει περίπου έξι νέα στελέχη έως τα τέλη Ιουνίου, με την πλειονότητά τους να εντάσσεται σε μονάδες ασφάλειας, ρύθμισης και συμμόρφωσης.
www.bankingnews.gr
Σχόλια αναγνωστών